“부동 소수점 정밀도”으로 총 1건 검색

• 부동 소수점 정밀도, 浮動小數點精密度, floating point precision

  부동 소수점으로 수를 표현할 때 사용되는 가수 부분의 정밀도. 즉 부동 소수점은 소수점의 위치를 일정하게 하지 않고 소수점의 위치를 나타내는 수를 병기하는 표시 방법(예를 들면, 638,020,000을 6.3802×108 또는 6.3802E8 등)이며, 부동 소수점 방식의 가수 부분으로 사용되는 2진수의 최대수를 말한다.